iT邦幫忙

2019 iT 邦幫忙鐵人賽

DAY 2
1

聊到自己的機器只要有Nvidia 顯示卡也可以做深度學習練習。大家又馬上感興趣了,請 Cash 提供方案,Cash 大略條列了幾個條件:

  • 近三年內的CPU 應該都可以,越快越好。預算有限的話,寧可省CPU錢去買好一點的 GPU,雖然少數的基礎訓練可以用CPU來進行,但速度無法忍受。
  • RAM 至少 16GB,文獻看來 Reinforcement Learning 可能至少需要 64GB 才能跑的動,但許多主機板無法支持,只能說越大越好,不夠用再花錢買雲計算。
  • GPU 越是新架構,以運算速度來衡量,性價比就越好,例如 GeForce 1080 會比 980 的性價比高許多。至於VRAM 有能力就買 11GB (土豪可考慮等GeForce 2080 Ti 出貨,一般就買1080 Ti) 沒錢至少要 4GB,這是因為通常採批量訓練加速所需。他個人覺得性價比最高的是 GPU 為 1070 (8GB VRAM)的顯示卡。
  • 建議要用SSD 存儲資料,經常要存取GB 級的資料,這投資換來的數據加載速度相當合算,但是不是絕對必要,也可以考慮把錢花在RAM上。
  • 如果要買 Notebook, 建議採購帶 GPU 1060 或者 1070 的,若預算有限可考慮 1050 ,無論哪種顯示卡, VRAM起碼要4GB。這個之前就有宣導過。

硬體雖然搞定,Fields 先前主要是在 Windows 環境開發,無法只安裝 Ubuntu,詢問是否可以裝 VirtualBox 再啟動 Ubuntu VM。這個情境 Cash 早已測試過,GPU於VM環境下無法啟動深度學習一般常用的CUDA,同時也發現同要是 Tensorflow GPU 在 Ubuntu跑訓練很順利,但是奇怪的是偶而在 Windows 下會有異常而中止執行,原因不明。提議Fields 瞭解一下 GRUB2 做開機雙OS切換。

Moore 逮到機會,馬上質疑:”為何選 Ubuntu,我也看到許多人談 CentOS適合在雲端"

Cash半開玩笑的說:
”因為如果我選 CentOS 也會有另外一位質疑說為何不用 Ubuntu。其實Linux超過百個以上的Distribution,能被廣為採用的,我認為都可以,與其我們大家花很多力氣在討論哪個OS,我覺得倒不如大膽決定一個,熟悉了一種,改天想用其他的,應該不難。Linux除了Molly與我較熟悉外,考慮到大家都邊做邊學,Ubuntu 的資源比CentOS多的,而且如果在個人環境需要安裝桌面版本, Ubuntu Desktop 是比較穩定的。” 中間穿插 Gavin 與 Pete 捧場的笑聲。

Fields 有點期望停在 Windows 就可以,不用再學新OS,弱弱的問:”我們有可能採用 Microsoft Cognitive Toolkit嗎? 是否就可以維持 Windows?”

Pete 搶回;”這個應該就是以前的CNTK,我看過一篇文章比較Tensorflow、Pytorch、Caffe、Mxnet等等,CNTK使用的比例偏低喔! 而且他 Windows, Linux 下都可以執行,我敢跟在場的每一位打賭我們最終不會採用Microsoft Cognitive Toolkit。"

Molly加入戰局;”我個人幾年的經驗,如果大家要共用資源連到同一台Server上,不太科學的比較,Linux 文字終端機連線似乎比較順,雖然文字指令模式有點囉嗦,但是熟悉了,你不會想再用圖形介面去處理大數據資料的。建議你就從這個專案開始學 Linux,從長遠的角度看,當資訊技術人員跑不掉的。”

佳麗建議 Gavin 以 Product Owner 提出需求,但 Gavin 覺得這應該是專業決定,但是又依他克勤耐勞的天性,希望大家必須考慮成本效益。其中成本必須納入未來如果要採購 DGX Server 或是使用雲計算時,不用再多學一套。Moore 立即上官網一查 NVIDIA DGX OS 就是採用 Ubuntu Server,而且最新版本居然就是 Cash 要推薦的 Ubuntu 18.04 LTS,這個要求讓 Cash 很得意,自誇已經有產品經理的視野。

終於大家搞定硬體與OS 的學習用環境,大家無異議OS 要採用 Ubuntu 18.04 Server,方便未來在雲計算環境或是採購DGX 時直接具備技能使用。但因為多數人不熟悉使用 Linux 或者說Ubuntu使用環境, Cash 允諾將會辦簡易的使用訓練說明會。

備註:

專案緣起記錄在 【UP, Scrum 與 AI專案】


上一篇
環境-硬體
下一篇
Ubuntu Server for Machine Learning安裝
系列文
深度學習所需入門知識--一位初學者的認知31
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言